X-Embedding: Two-Stage Training for Multilingual Patent Prior-Art Retrieval
X-Embedding：多语言专利现有技术检索的两阶段训练框架
🧭 检索排序 · 两阶段训练
Patsnap
提出两阶段训练框架 X-Embedding，先做专利结构与多语言对齐预训练，再用 X 类引用微调，64 维 Hit@100 达 89.09%
📌 工作参考价值（4 点）
- 两阶段训练：先做领域/结构对齐的预训练（如商品标题、描述、属性、用户评论等多视图对齐；跨语言商品对齐），再做任务微调，比直接 SFT 提升显著（+3.19 Hit@100），在低资源语言上增益更大。
- hard negatives 构造：用检索候选和弱相关（A 类）作为负样本，提升区分度；推荐系统可用曝光未点击、同类目但低相关、历史负反馈物品作为 hard negatives。
- Matryoshka 表示学习：一个模型输出 64/1024 维 embedding，低维保持高精度（89.09%），便于线上存储和检索成本控制，推荐召回可动态调整向量维度。
- 多语言对齐：对齐不同语言家族成员，可扩展到跨境电商/多语言用户场景，用跨语言正样本对增强语义一致性。